Problem Settings of Graph Embedding - Graph embedding input

graph embedding input可以分成四種種類，分別是 homogeneous graph, heterogeneous graph, graph with auxiliary information and constructed graph，簡單來說就是圖的類型。

Homogeneous graph

跟之前介紹的一樣，同質圖可以有權重或是方向性，但是都是同一種類型的 node 跟 edge。

Heterogeneous graph

heterogeneous graph 的實際案例

1. Community-based Question Answering (cQA) sites
2. Multimedia Networks
3. Knowledge Graphs

Community-based Question Answering (cQA) sites

簡單來說就是一個問答網站，使用者可以在上面發布問題再由另外的使用者回答，所以這種類型的 graph 包含了不同性質的節點，例如：question, answer, user 等

Multimeadia Networks

這類型的 graph 包含了不同性質的節點，例如：圖片、文字；連接的方式有 text-to-text, image-to-image, image-to-text。

以 image recommendation 為例，user 如果跟 image 有連結，將 user 跟 image
embedding 在同一個空間時就可以對 user 做推薦。

Knowledge Graphs

在 knowledge graphs 中，node 代表的是 entity，edge 代表的是 relation。例如：在 Freebase 中，entity 的類型就有 director, actor, film；relation 的類型有 directed, acted in, produce。

Graph with auxiliary information

輔助資訊的類型有 5 種，分別是 label、attribute、node feature、information propagation、knowledge base。

1. label
   • 只能是離散的值
   • 目標是要將不同 label 的 node embedding 在空間中互相是遠離的
   • 有些人會在目標函式中加入 classifier function 或是加入懲罰項
2. attribute
   • 可以是連續或是離散的值
3. node feature
   • 通常都是文字或是特徵向量
   • 特徵向量可以使用 bag-of-words、topic modelling，簡單來說就是將每個一單字視為一個 node
4. information propagation
   • 在 twitter 中 retweet 的行為就是屬於這一類
   • 重點在於訊息擴散的模式
5. knowledge base
   • 比較有名的範例有 Freebase、Wikipeida 等...

Graph Constructed from Non-Relational Data

意思是指要如何在沒有關聯性的資料中建構出 graph，例如：圖片之類的。方法有兩種，分別是：Similarity Matrix 跟 Node Co-occurrence。